Два вопроса про Line

[burik]

Здравствуйте!

Мне потребовалось вычертить график некоторой функции и в связи с этим возникло два вопроса:
1. Все работало нормально, пока при вычерчивании одной из функций не вылезла ошибка "Run-time error '6': Overflow" в строке с методом Line.

Код: Выделить всё


Private Sub ReDrawGraph(ByVal strExp As String)
Dim cX As Single, cY As Single

    CurrentX = -countX
    CurrentY = Eval(Replace(strExp, "x", CStr(CurrentX * pi)))
   
    i = (-countX / 2) / px
    While i <= (countX / 2) / px
        cX = i * px
        cY = Eval(Replace(strExp, "x", CStr(cX * pi)))
        Line -(cX, cY), &HC00000 '<<<<<<<- тут возникает ошибка
        i = i + 15
    Wend
End Sub
'Значения cX и cY в момент ошибки:
'cX = -5,5
'cY = 4,432354E+08

Почему возникает такая ошибка? Может в методе Line есть какие-либо ограничения на координаты?

2. Как можно сгладить линию?

[Antonariy]

1. Как минимум можно ScaleMode выставить в пикселях, а не твипах - диапазон значений расширится в 15 раз.

[Хакер]

burik
2. "Скруглить" или сгладить?
Если скруглить, тогда, юзая сплайны, кривые Безье или что-либо в этом роде.
Если именно сгладить - юзая алгоритм Ву.

[Денис]

burik
2. "Скруглить" или сгладить?
Если скруглить, тогда делай точечный график.
Если сгладить, то как сказал Хакер, а сам не знаю.

[Хакер]

Денис
Если функциональная зависимость слишком сложная, то на мой взгляд, лучше использовать сплайны, нежели просчитывать лишний раз функцию для каждой точки.

[burik]

Antonariy, у меня пользовательская система координат. И вообще я не совсем понимаю чем это поможет: координата Y зависит от координаты X и при изменении системы координат просто изменятся значения обоих. Я, наверное, чего-то не понимаю?

Нужно именно сгладить.. Щас попробую алгоритм By поискать, спасибо.

[Antonariy]

Вот именно, что изменятся значения. Line принимает, если мне не изменяет склероз, значения single-диапазона. Где-то значение одного из аргументов выходит за его границы, а пересчет в более крупных единицах уменьшит эти значения, и они пролезут в аргументы.

[burik]

Но ведь cX и cY объявлены As Single, так как в них может быть значение вне диапазона Single. Разве при записи в переменную значения, которое вне диапазона типа переменной, оно не округлится (или выскочит Overflow в момент присваивания)? Например:

Код: Выделить всё


Dim a As Integer, b As Byte

a = 5.345   'Насколько я понимаю в a запишется 5
b = 280     'Тут (как я понимаю) вылезет Overflow
'P. S. Проверил. Все именно так и происходит.


[Денис]

burik
А ты на других языках программировал?
Перечисли?

[burik]

Денис, не совсем понял как этот вопрос относится к теме?
Вобщем-то на VB(VBScript) и Pascal(школьные олимпиады). Можно еще посчитать JavaScript, PHP.

[Денис]

burik
Все очень просто. Дельфи не будет ничего округлять - сразу выдаст ошибку.
Не дай бейсику обмануть тебя. Не подсовывай ему заведомо ошибкоопасные (надеюсь понятно) данные.

[burik]

Денис, спасибо конечно за пояснение , я в курсе что Delphi не округляет, но говорим мы о VB, который округляет. Да и вопрос не втом округляет он или нет. Вопрос такой: Почему возникает ошибка? (выше приведен код и указана строка с ошибкой). Antonariy говорит что это может возникнуть из-за того, что я передаю в метод Line координаты, лежащие вне диапазона Single, но я передаю туда не просто значения, а переменные типа Single, в которых (насколько я понимаю) не может храниться значение вне диапазона Single.

[Хакер]

burik
Дело в том что Денис просто не может сдержаться, и не вставить какой-нибудь комментарий по любому поводу. Он, правда, говорит полную чушь насчёт округлений.

VB не округляет, VB конвертирует один тип переменной в другой. Всегда конвертирует, при любом присваивании. При присваивании 123 строковой переменной, конвертирует. И точно также при присванивании int-числа байт-переменной - тоже конвертирует.

Кладёт в ecx число, и вызывает рантайм-неSTDCALL-функцию _vbaUI1I2

Та в свою очередь сравнивает переданное integer-число с диапазоном Byte (0-255):

PUSH EBX
MOV BX,CX
CMP BX,0FF ; вот тут и происходит сравнивание
JBE SHORT MSVBVM60.660E0EA0 ; Если всё в порядке, то управление передаётся на зелёный код:
PUSH 6
CALL MSVBVM60.660CDDB3
MOV AL,BL
POP EBX
RETN

(А вот красный код генерирует ошибку Overflow, если integer-число выше 255).

В дельфи АФАИК нет вариант-типов и неявных преобразований типов, и поэтому там совершенно другая система.

Бейсик не обманывает тебя. Бейсик просто избавляет тебя от тучи лишних преобразований.

[Antonariy]

Дело в том что Денис просто не может сдержаться, и не вставить какой-нибудь комментарий по любому поводу.

Оказывается, это заразно

burik
Ага, не заметил, что Single...
Line -(cX, cY), &HC00000 - сам так не писал, но похоже (поправь, если ошибаюсь), что здесь рисуется линия от текущей точки до точки со смещением cX, cY. Если так, то возможно результирующая координата таки выходит за рамки Single, и Line где-то внутри себя не может ее посчитать. И мое предложение остается в силе.

[burik]

Antonariy, нет линия рисуется из текущей точки в точку с координатами cX, cY. Чтобы линия рисовалась со смещением нужно писать Line -Step(cX, cY), &HC00000.

[Al Khamid]

Все мои посты - полный бред. Удалите меня из форума.

[burik]

Al Khamid, да, так нужно. Просто графики разные есть, например график y=tg(x). Но разве Line не может работать с координатами, лежащими вне экрана?

[Хакер]

Если Y=443 235 400, то в чем не выставляй ScalMode, график чертится где-то далеко за пределами экрана. Ты уверен, что это так нужно?

Такая "точность" вызывает подозрения в отсутствии практики. Конечно могут быть исключения: низкоуровневое программирование или работа в каком-нибудь "Атласе" над каким-нибудь (чур меня) ЕГАИСом...

Есть подозрение в отсутсвии практики. Потому как очень странным выглядит то, что тебе не пришла в голову мысль о том, что автор мог установить свой произвольный масштаб.

Запусти же

Код: Выделить всё

Private Sub Form_Load()
Me.Scale (0, 0)-(500000000, 500000000)
Me.DrawWidth = 10
End Sub

Private Sub Form_Paint()

Me.PSet (443235400, 443235400), vbBlue
End Sub


и узри, что твоя придирка не имеет под собой не малейшего основания.

[Al Khamid]

Все мои посты - полный бред. Удалите меня из форума.

[burik]

Хакер, про "свой произвольный масштаб" я не учел потому, что внимательно читал и код и каменты и сделал вывод, что автор этим еще не пользуется.

Однако вот мой второй пост (http://bbs.vbstreets.ru/viewtopic.php?p=6678917#6678917):

Antonariy, у меня пользовательская система координат.

Хотя твой вариант(с незначительными поправками) работает нормально . Но все же хотелось бы понять почему возникала эта ошибка..

[Al Khamid]

Все мои посты - полный бред. Удалите меня из форума.

[netdemon]

Al Khamid

Просто открой любой справочник по VB для чайников и почитай про преобразование типов какие типы в какие преобразуются по умолчанию. И тебе всё станет ясно. Распечатай на листеке и повесь на стенку рядом с монитором чтобы всегда перед глазами было.

[Al Khamid]

Все мои посты - полный бред. Удалите меня из форума.

[netdemon]

Al Khamid, Потомучто если написать так :

Код: Выделить всё

Dim a as long

a=clng(256)*clng(256)



или так:

Код: Выделить всё

a=clng(256)*256

или

Код: Выделить всё

a=256*clng(256)

то ошибки не будет.

[keks-n]

А если написать Const As Long, то код будет выполнен быстрее, из-за отсутствия конвертаций.

[Al Khamid]

Все мои посты - полный бред. Удалите меня из форума.

[netdemon]

netdemon, еще раз спрашиваю. При чем здесь преобразование типов?
Я разве где-то писал, что не знаю как это обойти? И что оно мне вообще нужно? Повторю: мне любопытно, почему так происходит, но не более.
Про другие такие приколы уже и боюсь писать.

Вот это сообщение от Хакера прочитай. Он уже давно ответил почему так происходит
Добавлено: 25.10.2007 (Чт) 23:40 Заголовок сообщения: